Carlos Alberto bắt đầu làm huấn luyện viên từ năm 1983 với việc dẫn dắt Flamengo. Ông cũng huấn luyện các câu lạc bộ khác như Corinthians năm 1985 và 1986; Náutico năm 1986 và 1987; Botafogo năm 1993, 1994, 1997, 1998, 2002 và 2003; Fluminense năm 1994 và 1995; và Paysandu năm 2005. Ông cũng từng dẫn dắt các đội tuyển quốc gia của Nigeria và Oman. Tháng 2 năm 2004 ông được bổ nhiệm làm huấn luyện viên đội tuyển Azerbaijan, tuy nhiên đã từ chức vào tháng 6 năm 2005 sau trận thua Ba Lan, trong trận đấu đó ông tấn công trọng tài bàn và tuyên bố trên sân với cáo buộc rằng trọng tài đã nhận hối lộ.